Beliau dilahirkan pada 9 November 1934 di Brooklyn, New York.[5] Bapanya, Samuel Sagan, merupakan seorang pekerja pakaian pendatang dari Kamianets-Podilskyi, ketika itu di Empayar Rusia,[6] di zaman moden Ukraine. Ibunya, Rachel Molly Gruber, merupakan seorang suri rumah dari New York. Carl dinamakan sebagai penghormatan kepada ibu kandung Rachel, Chaiya Clara, dalam kata-kata Sagan, "ibu yang tidak pernah dikenalinya."[7]

Beliau mempunyai seorang kakak, Carol, dan keluarganya tinggal di sebuah pangsapuri sederhana berhampiran Lautan Atlantik, di Bensonhurst, sebuah kejiranan Brooklyn. Menurut Sagan, mereka adalah Yahudi Pembaharuan, yang paling liberal dari empat kumpulan utama Yahudi Amerika Utara. Carl dan kakaknya bersetuju bahawa bapa mereka tidak terlalu beragama, tetapi ibu mereka "pasti percaya kepada Tuhan, dan aktif di kuil .. dan hanya melayani daging halal".[7]:12 Semasa kedalaman Kemelesetan, bapanya bekerja sebagai pelopor teater.

Menurut penulis biografi Keay Davidson, "perjuangan batin" Sagan adalah hasil dari hubungan eratnya dengan kedua ibu bapanya, yang dalam banyak hal "bertentangan". Sagan mengesan desakan analitinya kemudian kepada ibunya, seorang wanita yang sangat miskin ketika masih kecil di Bandar Raya New York semasa Perang Dunia I dan tahun 1920-an.[7]:2 Sebagai seorang wanita muda, dia telah memegang cita-cita intelektualnya sendiri, tetapi mereka kecewa dengan sekatan sosial: kemiskinannya, statusnya sebagai seorang wanita dan isteri, dan etnik Yahudinya. Davidson menyatakan bahawa dia "menyembah anak tunggalnya, Carl, dia akan memenuhi impiannya yang tidak tercapai."[7]:2

Walau bagaimanapun, beliau mendakwa bahawa rasa kagumnya datang dari bapanya. Dalam waktu luangnya, dia memberikan epal kepada orang miskin atau membantu menenangkan ketegangan pengurusan buruh dalam industri pakaian New York.[7]:2 Walaupun dia kagum dengan kebolehan intelek Carl, dia mengambil ketabahan anaknya dalam langkah dan melihatnya sebagai sebahagian daripada pertumbuhannya.[7]:2 Pada tahun-tahun kemudiannya sebagai seorang penulis dan saintis, Sagan sering melakar kenangan zaman kanak-kanaknya untuk menggambarkan mata saintifik, seperti yang dilakukannya dalam bukunya, Shadows of Forgotten Ancestors.[7]:9 Sagan menggambarkan pengaruh ibu bapanya terhadap pemikirannya yang kemudian:

Ibu bapa saya bukan ahli sains. Mereka tahu hampir apa-apa tentang sains. Tetapi dalam memperkenalkan saya secara serentak kepada keraguan dan untuk bertanya-tanya, mereka mengajar saya dua cara pemikiran yang tenang dan bersahaja yang menjadi pusat kepada kaedah saintifik.[8]